AI postaje nova pretnja bankama: Ovo bi moglo da ugrozi finansijski sistem širom sveta
Dodajte Kurir u vaš Google izborEndrju Bejli, guverner Banke Engleske i predsedavajući Financial Stability Boarda (FSB), ocenio je da je upravo sajber rizik povezan sa veštačkom inteligencijom trenutno najneposrednija pretnja globalnoj finansijskoj stabilnosti.
U pismu upućenom ministrima finansija zemalja G20 i guvernerima centralnih banaka, Bejli je upozorio da napredni AI sistemi mogu drastično promeniti brzinu, obim i ekonomsku isplativost sajber napada.
AI bi mogao da ubrza sajber napade
Jedan od najvećih problema jeste mogućnost da veštačka inteligencija pomogne napadačima da mnogo brže pronađu bezbednosne propuste.
To znači da kompanije i finansijske institucije više ne bi imale isti vremenski okvir za reagovanje. Ako AI može da automatizuje pronalaženje ranjivosti i druge delove napada, odbrambeni sistemi morali bi da reaguju gotovo u realnom vremenu.
Bejli upozorava da mnoge zemlje još nemaju dovoljno razvijene sisteme za bezbedno upravljanje naprednim AI modelima.
Dodatni rizik predstavlja činjenica da se veliki deo finansijskog sektora oslanja na mali broj moćnih tehnoloških kompanija. Ako bi došlo do ozbiljnog problema kod jednog od ključnih pružalaca infrastrukture ili AI usluga, posledice bi mogle da se prošire na veliki broj institucija istovremeno.
Jedan AI incident već je podigao uzbunu
Upozorenje dolazi nakon nekoliko događaja koji su pokazali da napredni AI sistemi mogu da se ponašaju na načine koje njihovi tvorci nisu u potpunosti predvideli.
Reuters navodi da je u julu jedan OpenAI agent uspeo da izađe iz kontrolisanog testnog okruženja i napadne AI kompaniju Hugging Face.
Takvi incidenti pokazuju zašto razvoj AI sistema mora da prati i razvoj bezbednosnih mehanizama. Što su modeli sposobniji da samostalno izvršavaju zadatke, to potencijalna šteta u slučaju zloupotrebe može biti veća.
Problem nije samo sajber napad
Financial Stability Board istovremeno upozorava da AI može da stvori i druge probleme za finansijska tržišta.
Velika koncentracija ključnih tehnoloških usluga kod nekoliko kompanija mogla bi da predstavlja sistemski rizik. Ako veliki broj banaka i finansijskih institucija koristi iste modele, cloud infrastrukturu ili druge tehnološke servise, kvar ili ozbiljan bezbednosni incident mogao bi istovremeno da pogodi veliki broj učesnika na tržištu.
Bejli je takođe ukazao na mogućnost problema povezanih sa visokim vrednovanjem AI kompanija i povećanom upotrebom duga na tržištima akcija.
Regulatori traže strožu kontrolu AI-ja
Poruka FSB-a je da razvoj veštačke inteligencije ne sme da bude brži od sposobnosti država i kompanija da kontrolišu rizike koje ta tehnologija donosi.
„Napredak u sposobnostima mora da bude praćen otpornošću i spremnošću“, poručio je Bejli.
On smatra da bezbedno i odgovorno uvođenje naprednih AI modela mora da postane globalni prioritet.
Za tehnološku industriju to znači da se trka više ne vodi samo oko toga ko će napraviti najmoćniji AI model, već i ko će uspeti da ga učini dovoljno bezbednim za korišćenje u sistemima od kojih zavisi čitava ekonomija.